Thời kỳ cầm quyền của Caprivi mang dấu ấn của cái mà các nhà sử học gọi là Đường lối mới (Neuer Kurs)[4] về cả chính sách đối ngoại lẫn đối nội, với các hoạt động hướng đến sự hòa giải của Đảng Dân chủ Xã hội về đối nội, và hướng đến một chính sách đối ngoại thân Anh, được cụ thể hóa bởi Hiệp định Anh-Đức vào tháng 7 năm 1890, theo đó người Anh nhượng Heligoland cho Đức để đổi lấy quyền kiểm soát Zanzibar. Sự kiện này đã gây phẫn nộ cho các tổ chức có chủ trương đẩy mạnh chủ nghĩa thực dân như Liên minh Đại Đức (Alldeutscher Verband), trong khi chính sách tự do thương mại của Caprivi đã dẫn tới sự đối kháng từ những người bảo thủ theo chủ nghĩa bảo hộ nông nghiệp. Hiệp ước cũng mang lại cho Đức dải Caprivi (Caprivizipfel), dải đất đã được thêm vào lãnh thổ Tây Nam Phi thuộc Đức, nhờ đó xứ thuộc địa Tây Nam Phi được nối liền với sông Zambezi, mà ông hy vọng sử dụng với mục đích giao thương và giao lưu với Đông Phi. Điều đáng tiếc là thuyền bè không thể đi lại được trên con sông lớn này. Ông phản đối những ý tưởng về một cuộc chiến tranh đề phòng với Nga mà tướng Alfred von Waldersee đã đề ra, tuy nhiên ông đồng thuận với quyết định của Đức hoàng Wilhelm II và các đại thần có cùng khuynh hướng trong Văn phòng Ngoại giao mà tiêu biểu là Friedrich von Holstein về việc bãi bỏ Mật ước tái cam kết mà Bismarck đã ký với Nga vào năm 1887, và điều này đã thúc đẩy Nga thiết lập liên minh với Pháp.

Sự chống đối của Đảng Bảo thủ đối với Chính phủ Caprivi gia tăng, kèm theo những cuộc công kích công khai không ngừng nghỉ của cựu Thủ tướng Bismarck. Caprivi cũng đánh mất sự ủng hộ của Đảng Tự do Quốc gia và Đảng Tiến Bộ trong một thất bại lập pháp vào năm 1892 khi ông cổ vũ Bộ trưởng Giáo dục Phổ đề xuất Đạo luật trường học, theo đó một số đặc quyền của Giáo hội Công giáo được khôi phục. Đây là một nỗ lực bất thành nhằm khôi phục cho Đảng Trung tâm (theo Công giáo) sau khi Bismarck sung công tài sản của Nhà thờ và hạn chế vai trò của Nhà thờ trong nền giáo dục trong cuộc Đấu tranh Văn hóa (Kulturkampf) của ông. Caprivi, mặc dù là một tín đồ Kháng Cách, cần có 100 phiếu của Đảng Trung tâm Công giáo nhưng điều đó đã gây cho các nhà chính trị theo Kháng Cách hãi hùng. Thậm chí nhiều người bảo thủ và một số người theo Đảng Dân chủ Xã hội cũng phản đối đạo luật này.[5][6] Caprivi bị buộc phải từ chức Thủ tướng Phổ và được thay thế bởi Bá tước Botho zu Eulenburg, dẫn đến một sự chia rẽ quyền lực khó lường giữa Thủ tướng Đức và Thủ tướng, và điều này cuối cùng dẫn đến việc cả hai ông bị sa thải vào năm 1894. Đức hoàng cử Vương công Chlodwig von Hohenlohe-Schillingsfürst làm tân Thủ tướng của Phổ và Đế quốc Đức.

Những thành tựu cơ bản của ông là các đạo luật quân đội năm 1892 và 1893, cùng với hiệp định thương mại được ký kết với Nga vào năm 1894.[3]